Delegating Agency in the Public Sector: A Case Study on Current Human-Technology Practices and Visions for AI

Human-technology collaboration is currently receiving a surge of attention in Information Systems (IS) due to attempts to introduce Artificial Intelligence (AI) in private and public organizations. In Scandinavia, governments are introducing AI-infused services to support decision-making and enhance efficiency in case processing within healthcare, education, and welfare. However, there is a need to shed more light on the conditions that precede AI implementation and the path that leads organizations to envision AI as a solution to a problem. We ask: How do humans and technology cooperate in the public sector? How is AI visioned to be part of this in the future? We report from an ongoing qualitative case study of work practices to assess sick leave cases at a Scandinavian welfare agency in which AI gradually emerged as a means to achieve more efficient resource distribution at the agency. Inspired by the concept of delegation drawn from Actor-Network Theory, we trace the distribution of work across technical and human agents in the sick leave department and illustrate how the agency is starting to envision a way to delegate tasks to AI-based tools in the future

What Do Citizens Think of AI Adoption in Public Services? Exploratory Research on Citizen Attitudes through a Social Contract Lens

The adoption of Artificial Intelligence (AI) by the public sector has the potential to improve service delivery. However, the risks related to AI are significant and citizen concerns have halted several AI initiatives. In this paper we report findings from an empirical study on citizens´ attitudes towards AI use in public services in Norway. We found a generally positive attitude and identified three factors contributing to this: a) the high level of trust in government; b) the reassurance provided by having humans in the loop; c) the perceived transparency into processes, data used for AI models and models´ inner workings. We interpret these findings through the lens of social contract theory and show how the introduction of AI in public services is subject to the social contract power dynamics. Our study contributes to research by foregrounding the government-citizen relationship and has implications for public sector AI practice

Educating about Responsible AI in IS: Designing a course based on Experiential Learning

Responsible AI (RAI) is an emerging topic in the Information Systems (IS) literature. RAI entails ensuring ethical, transparent, and accountable use of AI technologies in line with societal values, expectations, and norms. The challenge for research on IS education at university level is to accompany the growing research on RAI with approaches to educate students about this emerging theme. Research on IS education on responsible AI remains scarce to date, however. We ask: How can we design a course to educate students about responsible AI? We build on earlier research and an experiential learning-based approach to propose a course design promoting students’ multidisciplinary, problem-based learning about RAI applied to the case of public welfare services. Our study is based on participatory observations of student groups and group interviews after a project, acting as an arena where the students could reflect on the learning process and evolving awareness of RAI

IoT and Data Governance in Long-Term Environmental Monitoring

Bruken av intelligente teknologier, IoT enheter, i forskning har bidratt til å gjøre arbeid med miljøforskning lettere og mer tilgjengelig, da det er mulig å måle nesten det en vil til en lav pris. Eksempler på intelligente teknologier er sensorer som måler temperatur, fuktighet eller trykk, kameraer og akustiske enheter slik som ekkolodd, og de er intelligente fordi de kan levere data automatisk uten behov menneskelig interaksjon. Automatiske innsamlinger av sanntidsdata, ofte fra enheter med ulik kvalitet og følsomhet, fører imidlertid til lagring av omfattende mengder med rådata. Som et resultat av dette må forskere kontinuerlig forsikre seg om at enhetene er kalibrerte, og gjøre dataene pålitelige, lesbare og meningsfulle med hensyn til konteksten. For å gjøre forskning gjennomførbart, er forskningsstasjoner – som også kan bli referert til som forskningsinfrastrukturer – noen ganger avhengige av finansiering via styrende institusjoner som for eksempel ESFRI og Forskningsrådet i Norge. For å motta finansiering – og med et økt fokus på åpen datadeling mellom forskningsinfrastrukturer, stilles det høyere krav til datadokumentasjon i henhold til de standarder og krav som myndighetene setter. Dette er med på å påvirke forskeres datastyringsarbeid. Forskningen som er gjort i dette prosjektet har som mål å bidra med empirisk innsikt i hvordan intelligente teknolgier brukes på forskningsstasjoner for miljøovervåkning, og hvordan forskeres arbeid påvirkes av økt bruk av teknologi i overvåkning. Det er undersøkt hvordan forskere opplever retningslinjene satt av forskningsinstitusjoner om hvordan dataene skal dokumenteres, og hvordan deres dataarbeid må tilpasses deretter. Det er gjennomført et casestudie av utvalgte forskningsstasjoner for miljøovervåkning i Norge, og studien baserer seg på kvalitative data fra strukturerte og semi-strukturerte intervjuer og relevante dokumenter fra myndighetene slik som strategidokumenter, retningslinjer og veikart. Funnene er basert på informasjon fra intervjuer av informanter som til daglig arbeider på forskningsstasjoner for miljøovervåkning som dataledere, forskningssjefer, forskningskoordinatorer eller miljøforskere. Funnene viser at IoT basert miljøovervåkning er muliggjort av datastyringsarbeid, med etablerte prosesser for å sikre at store sett av rådata blir gjort pålitelige, lesbare og meningsfulle for å støtte fremtidig gjenbruk og tolkning. Prosessene er påvirket av retningslinjer, prosedyrer og standarder for hvordan dataene skal samles inn og håndteres, som er med på å påvirke forskeres arbeidspraksiser. På grunn av begrensninger i tid, finansiering og ressurser, viser funnene imidlertid at det kan være vanskelig å ha ønsket kvalitet i forskernes vitenskapelige arbeid